Năm 1947, ông được cử làm Chỉ huy trưởng Mặt trận đường 4. Năm 1948, ông kiêm chức Trung đoàn trưởng Trung đoàn 28. Ông đã chỉ huy quân đội Việt Minh hoạt động dọc tuyến đường số 4, tổ chức nhiều trận phục kích và công đồn, gây rất nhiều khó khăn cho lực lượng quân Pháp đồn trú tại đây, phần nào giảm bớt áp lực của quân Pháp ở chiến khu Việt Bắc. Do những chiến tích lẫy lừng trên đường số 4, đặc biệt với các trận phục kích trên đèo Bông Lau từ năm 1947 đến 1949, tiêu diệt hơn 100 xe giới quân sự Pháp, nhân dân vùng Cao-Bắc-Lạng xưng tụng ông là "Đệ tứ lộ Đại vương", còn các binh sĩ Pháp gọi ông với nhiều biệt danh khác nhau như "Hùm xám đường số 4" (le Tigre gris de la RC4), "tiểu tướng Napoléon" (mon petit Napoléon)...[6]

Khi Trung đoàn 174 chủ lực[7] được thành lập ngày 19 tháng 8 năm 1949, trên cơ sở hợp nhất lực lượng của 3 trung đoàn thuộc 3 tỉnh: Trung đoàn 74 (Cao Bằng), Trung đoàn 72 (Bắc Cạn), Trung đoàn 28 (Lạng Sơn)[8]; ông được cử làm Trung đoàn trưởng đầu tiên và Chu Huy Mân làm chính ủy đầu tiên.

Ngày 16 tháng 9 năm 1950, ông chỉ huy trung đoàn 174, phối hợp với trung đoàn 209, chủ động đánh chiếm cứ điểm Đông Khê[9], mở đầu Chiến dịch Biên giới thu đông 1950, sau đó bao vây cô lập Cao Bằng, uy hiếp cứ điểm Thất Khê và phá thế trận phòng thủ của quân Pháp trên đường số 4. Chỉ trong vòng 1 tháng, chiến dịch kết thúc với thắng lợi rực rỡ của Quân đội nhân dân Việt Nam, trong đó có phần không nhỏ của Đặng Văn Việt và Trung đoàn 174 do ông chỉ huy.

Sau chiến dịch Biên giới, ông tiếp tục chỉ huy Trung đoàn tham gia nhiều chiến dịch lớn khác như chiến dịch Tây Bắc (1952), chiến dịch Hòa Bình, phá hủy căn cứ đồng bằng Bắc bộ của quân Pháp (1952)...